一組由法國CEA-Leti領導的研究團隊,近期在《自然電子》(Nature Electronics)期刊上發表了一篇重要論文。藉由混和鐵電記憶體和憶阻器兩種記憶體技術,突破了長期以來限制高效邊緣AI訓練的技術瓶頸,讓人工神經網路在本地訓練和推論更加可行。
在該篇標題為《一種同時適用於訓練和推理的鐵電記憶體-憶阻器(Memristos)的研究》的論文中,研究團隊提出了一種新的混合記憶系統,將鐵電電容器(FeCAP)與憶阻器這兩種原本不相容技術的最佳特性,整合在一個單一的、相容於CMOS製程的記憶體堆疊中。這種新穎的架構讓晶片有機會同時進行訓練和推論,而且不消耗過多的能源或需要性能非常強大的硬體。這是邊緣AI發展所面臨的最棘手挑戰之一。
在CEA-Leti的帶領下,包括幾個法國微電子研究中心的科學家參與了這個研究專案,證明了可以在晶片上實現具有競爭力的準確度的訓練,無需依賴外部更新和複雜的外部系統。該團隊的創新使邊緣系統和設備(如自駕車、醫療感測器和工業監控器)能夠從即時到達的真實世界資料中學習,在保持功耗和硬體磨損受到嚴格控制的同時,隨時調整模型。
挑戰:一個無法兩全其美的局面
邊緣AI需要同時具備推論(讀取資料以做出決策)和學習(根據新資料更新模型)的能力。但直到現在,記憶體技術只能做好其中一項工作。憶阻器在推論方面表現優異,因為它們可以儲存類比權重,在讀取操作中具有能源效率,並支持記憶體內運算。鐵電電容器可以快速、省電地的更新資料,但其讀取操作是破壞性的,使得這種記憶體不適合用於推論。
因此,硬體設計師面臨選擇,要優先考慮推論並將訓練外包給雲端,或是嘗試進行訓練,但會面臨高成本和有限的耐用性。
混合記憶體讓邊緣訓練具有可行性
團隊的指導理念是,儘管憶阻器的類比精度足以滿足推理的需求,但在學習方面卻不夠,因為學習需要小而逐步的權重調整。
該論文的第一作者Michele Martemucci表示,受到量子化神經網路的啟發,研究團隊採取了一種混合方法:使用儲存在憶阻器中的低精度類比權重進行前向和後向傳播,更新則使用高精度的鐵電電容器來實現。根據存儲在FeCAPs中的最重要位元,定期對憶阻器進行重新編程。
突破:一個記憶體堆疊,兩種特性
該團隊設計了一個由矽摻雜的鉿氧化物和鈦清除層組成的統一記憶堆疊。這種雙模式裝置可以根據電性“成型”的方式,以鐵電電容器或憶阻器的模式運作。
這讓同一個記憶單元可以根據其狀態,用於儲存精確的數位權重(訓練)或類比權重表達(推理)。而且,研究團隊也發展出一種數位到類比的傳輸方法,在無需使用數位類比轉換器(DAC)的情況下,便能將鐵電電容中的隱藏權重,轉換為憶阻器中的導電水平。
這個硬體是在一個包含18,432個單元的陣列上製造並測試,採用標準的130nm CMOS技術,將兩種記憶體類型及其周邊電路整合在一個晶片上。
除了CEA-Leti,該研究團隊還包括來自格勒諾布爾阿爾卑斯大學、CEA-List、法國國家科學研究中心(CNRS)、波爾多大學、波爾多國家工藝學院、IMS France、巴黎-薩克雷大學以及納米科學與納米技術中心(C2N)的科學家。